Gilmar sinh ra ở Santos, São Paulo và bắt đầu sự nghiệp thi đấu cho đội bóng quê hương Jabaquara. Năm 1951, ông gia nhập Corinthians, giành ba danh hiệu Campeonato Paulista cùng câu lạc bộ vào các năm 1951, 1952 và 1954.

Năm 1961, Gilmar ký hợp đồng với Santos, là một phần của đội bóng được biết đến với cái tên Os Santásticos. Khởi đầu, ông đã giành được năm Campeonato Paulista (1962, 1964, 1965, 1967, 1968), năm giải Taça Brasil (1961, 1962, 1963, 1964, 1965), hai Copa Libertadores (1962 và 1963) và hai Cúp Liên lục địa (1962) trước Benfica của Eusébio và năm 1963 với Milan).